Trình Giảo Kim xuất thân là người Tế Châu, trong gia đình võ tướng thế gia. Cụ là Trình Hưng, làm Tư mã Duyện Châu thời Bắc Tề. Ông là Trình Triết, làm Tư mã Tấn Châu thời Bắc Tề. Cha là Trình Lâu, cũng làm nối nghiệp quan võ, sau được truy tặng hàm Thứ sử Doanh Châu.

Trình Giảo Kim từ nhỏ đã luyện tập võ nghệ, từ thời thiếu niên đã nổi tiếng kiêu dũng, giỏi cưỡi ngựa và sử dụng mã sóc (một loại giáo dài) rất thiện nghệ.